(网经社讯)8月4日，小红书发布《关于毒动画等涉未成年人违规内容的治理公告》，截至当日已累计处置违规笔记8.4万余篇、违规评论10.5万余条、违规账号3571个。从AI毒动画到暗语引流、教唆自残，这并非小红书首次因未成年人内容问题被追责，当违规内容披上AI的外衣、穿上暗语的伪装，平台的治理能力正在接受考验（详见网经社专题：https://www.100ec.cn/detail--6662475.html）。

出品｜网经社

作者｜唐三

初审｜无痕

终审｜云马

配图｜网经社图库

【本文摘要】

一、AI魔改、暗语引流、教唆自残：三类违规引发热议

8月4日，小红书发布《关于毒动画等涉未成年人违规内容的治理公告》，披露平台已累计处置违规笔记8.4万余篇、违规评论10.5万余条、违规账号3571个。公告中列举的典型案例令人不安——AI批量炮制的恐怖版《天线宝宝》、以谐音暗语诱骗未成年人参与软色情陪聊的“俱乐部招聘”、教唆自残的极端图文。

三类违规内容同时泛滥，指向的不是零星的审核漏放，而是平台在未成年人保护机制上的系统性失效。违规内容正通过变种图片、谐音词、圈层黑话等手法频繁绕过常规审核，单篇删除式的被动响应已无法遏制跨场景、多形态的传播链条。

网经社企业库显示，小红书隶属于行吟信息科技（上海）有限公司，成立于2013年8月2日，法定代表人为任爽。2013年由毛文超和瞿芳在上海创立，目前已发展成为月活跃用户超4亿的头部生活方式内容平台，上一轮融资发生在2024年7月，估值约170亿美元。

小红书依托“种草社区”的UGC模式积累了超4亿月活用户，社区每天产生数十亿次笔记曝光。这种“人人生产、算法分发”的机制成就了内容的多元与高效，但也让审核面临海量内容与商业效率的双重挤压。当AI降低内容创作门槛后，违规者利用谐音词、圈层暗语和变种图片批量绕过审核，而审核体系却在“流量优先”的逻辑下长期滞后，使未成年人保护防线频频失守。

此次事件并非孤立。早在2021年7月，小红书就因“传播儿童软色情表情包、利用未成年人性暗示短视频引流等问题”被网信部门约谈，当时小红书曾回应称“对审核漏放情况致歉，将启动新一轮未成年治理专项”。2026年3月，媒体调查再次发现，若以“15岁女性”身份注册小红书，平台无需实名认证即可登录，并会推送大量暧昧露骨的内容。多次约谈、多次承诺、多次“启动专项治理”——但违规内容依然反复出现。

从2021年“儿童软色情”被约谈，到2026年“AI毒动画”集中爆发，五年时间过去，小红书在未成年人保护上的“治理循环”仍在重复——曝光、承诺、治理、再曝光。

二、审核困境与商业逻辑的冲突：违规内容为何屡禁不止

小红书AI毒动画与涉未成年人违规内容的集中爆发，暴露了内容平台在未成年人保护方面面临的深层结构性矛盾。

审核机制的滞后性是第一重困境。 传统的关键词过滤已无法应对圈层暗语、谐音词、变种图片等变体手段。违规者将“陪”写成“裴”，将“会费”写成“hf”，用看似正常的笔记隐藏真实招募信息。平台发现，违规链路已经从单篇笔记演变为“笔记→评论区→群聊→站外平台”的跨场景传播路径。这意味着，仅靠单点拦截已经不足以遏制传播，而跨场景追踪的技术难度和成本极高。

AI技术降低了违规内容的制作门槛，是第二重困境。 账号“可*X”并非手工制作恐怖内容，而是利用AI批量生成“毒动画”。AI的批量化生产能力，让平台面临“生产速度远超审核速度”的困境——人工审核团队再庞大，也难以对抗AI的无限供给。更为棘手的是，AI生成内容与真人创作的内容在形态上越来越难以区分，这要求平台不仅要审核内容本身，还要识别内容是否由AI生成、是否经过恶意篡改。

平台商业逻辑与未成年人保护的冲突，是更深层的第三重困境。 小红书以“种草”社区起家，算法推荐的核心逻辑是“用户停留时间×互动率”——越能激发情绪的内容，越容易被算法放大。而毒动画、极端图文恰恰是情绪刺激最强的内容类型。当算法将“流量最大化”作为优化目标时，审核部门要做的不是“拦截”，而是在流量洪流中“打捞”有害内容——这是一场注定跑不赢的马拉松。

图源：微博2022年热搜截图

事实上，小红书因未成年人内容问题被追责并非首次。2021年和2022年平台就曾因类似问题被网信办约谈。2026年3月，央视调查再次曝光小红书等平台隐秘传播被禁暗黑动漫。从2021年到2026年，同类问题反复出现——AI只是让旧的病灶换了一副面孔。当违规内容从明文变成暗语、从人工制作变成AI批量生成，平台的治理能力也必须从“事后清理”进化为“事前拦截”。这需要的不只是一次专项治理，而是技术、规则与商业逻辑的系统性重构。

三、从被动响应到主动防护：治理升级与合规之路

面对违规手段的升级，小红书在本轮治理中披露了一套覆盖“拦截—追踪—处罚”全链路的治理框架。

强化主动巡查与前置拦截。 针对刻意使用圈层暗语、变种图片等恶意逃避审核的行为，平台升级风险识别模型，实施前置拦截。小红书已优化AI审核模型，从源头防范生成暴力、低俗等不适宜未成年人接触的风险内容；通过用户行为特征智能识别未成年用户，对AI生成不当内容实施软隔离，将未成年人保护由被动响应向主动防护转变。

全链路斩断有害内容传播链条。 针对利用AI批量炮制猎奇短剧、传播“毒动画”资源等行为，平台对相关笔记、评论、群聊等实施跨场景追踪与连带查处。仅删除单篇笔记不足以遏制传播，必须通过跨场景治理实现全链路阻断。

从重处罚与线索上报。 对屡教不改、恶意引流牟利严重侵害未成年人身心的账号，坚决予以永久封禁；对涉嫌违法犯罪的线索，移交公安机关。

从更宏观的视角看，小红书的治理升级并非孤立事件，而是整个互联网行业未成年人保护监管趋严的缩影。中央网信办2026年7月部署开展为期4个月的“清朗·未成年人网络保护”专项行动，上海市委网信办也聚焦利用AI技术生成“数字泔水”、制作发布虚假信息、散播暴力低俗内容、侵害未成年人权益等问题持续开展专项行动。

广州市委网信办近期通报的案例中，哔哩哔哩、抖音、百度等平台同样出现借AI魔改未成年人喜爱的动画角色的违规内容——AI毒动画已成为全行业面临的共同挑战。2026年2月，网信部门已督促网站平台深入排查整治AI生成合成信息不加标识、利用虚假不实内容欺骗误导公众的问题。

小红书近年来在AI治理上持续加码：2026年发布《社区公约2.0》，明确反对虚假，鼓励用户对AI内容进行主动标识、并且反对使用夸张和猎奇的手段吸引用户点击等；此次涉未成年人专项治理，是这一系列AI治理举措在未成年人保护领域的具体落地。

中国广告协会学术与教育工作委员会委员、网经社电子商务研究中心主任曹磊指出，小红书AI毒动画事件的本质是技术滥用与平台治理能力之间的赛跑，技术作恶的门槛在降低，而治理能力却需要在成本和效率之间艰难权衡——这是一场没有终点的马拉松。对于整个互联网行业而言，未成年人保护的底线不容突破，而守住这条底线，需要的不只是一次专项治理，而是技术、规则与商业逻辑的系统性重构。

【小贴士】

网经社深耕电商与互联网19年，依托旗下网络消费纠纷调解平台“电诉宝”（315.100EC.CN）及开放型电商智库平台网经社电子商务研究中心（RESC.100EC.CN），通过立法参谋、监管课题、监管培训、监管会议、监管调研、专项报告六大方式，在推动消费维权、参与行业立法、促进平台合规等方面成果显著，持续获得有关部委的认可（详见：https://www.100ec.cn/zt/scjghbhb/）。